OpenAI визуализира гласов генератор, признавайки изборните рискове
Стартъпът за изкуствен интелект OpenAI пусна предварителен преглед в петък на цифров гласов генератор, който според него може да произвежда естествено звучаща реч въз основа на единична 15-секундна аудио проба.
Софтуерът се нарича Voice Engine. Това е най-новият продукт, който идва от стартъпа в Сан Франциско, който също стои зад популярния чатбот ChatGPT и генератора на изображения DALL-E.
Компанията каза в публикация в блог, че е тествала Voice Engine в набор от възможни приложения, включително помощ при четене на деца, езиков превод и възстановяване на гласа на пациенти с рак.
Някои потребители на социални медии реагираха, като изтъкнаха възможни злоупотреби, включително потенциална измама, подпомогната с неоторизирана гласова имитация, или дълбоки фалшиви съобщения.
Но OpenAI каза, че задържа изключено засега при по-широко пускане на софтуера поради възможността за злоупотреба, включително по време на изборна година. Той каза, че за първи път е разработил продукта в края на 2022 г. и го е използвал зад кулисите в други продукти.
„Ние възприемаме предпазлив и информиран подход към по-широко разпространение поради потенциала за злоупотреба със синтетичен глас“, каза компанията в неподписания пост.
„Надяваме се да започнем диалог относно отговорното внедряване на синтетични гласове и как обществото може да се адаптира към тези нови възможности“, се казва в него. „Въз основа на тези разговори и резултатите от тези тестове в малък мащаб, ние ще вземем по-информирано решение дали и как да внедрим тази технология в мащаб.“
Изборите през 2024 г. вече станаха свидетели на първия си фалшив глас, който се появи в Ню Хемпшир в автоматично обаждане през януари, имитирайки президента Джо Байдън. По-късно служител на Демократическата партия каза, че е поръчал фалшивия глас, използвайки изкуствен интелект и помощта на уличен магьосник от Ню Орлиънс.
След това обаждане Федералната комисия по комуникациите гласува единодушно за забрана на непоискани AI robot calls.
OpenAI признава политическите рискове в своята публикация в блога.
„Ние осъзнаваме, че генерирането на реч, която наподобява гласовете на хората, крие сериозни рискове, които са особено важни в година на избори“, се казва в него.
Компанията заяви, че „се ангажира с американски и международни партньори от правителството, медиите, развлеченията, образованието, гражданското общество и извън тях, за да гарантира, че включваме тяхната обратна връзка, докато изграждаме.“
Той каза, че политиките му за използване забраняват представянето под чужда самоличност без съгласие или законно право и каза, че широкото внедряване трябва да бъде придружено от „опит за гласово удостоверяване“, за да се провери дали оригиналният говорител съзнателно е добавил гласа си към обслужване. Той също така призовава за „списък с забранени гласове“, за да се предотврати създаването на гласове, които са твърде подобни на видни фигури.
Но намирането на начин за откриване и етикетиране на генерирано от AI съдържание има се оказа трудно за технологичната индустрия. Предложените решения като „воден знак“ се оказаха лесни за премахване или заобикаляне.
Джефри Милър, доцент по психология в Университета на Ню Мексико, отговори на OpenAI на платформата X, питайки какво ще направи относно потенциалната злоупотреба от престъпници.
„Когато милиони по-възрастни хора бъдат измамени за милиарди долари от тези дълбоки фалшиви гласове, ще бъде ли @OpenAI готов за последвалото цунами от съдебни спорове?“ попита той. Компанията не му отговори веднага.
Дейвид Инграм
